ในปี ค.ศ. 1863 ฮิจิกาตะและคนโด อิซามิ ได้ร่วมกันตั้งกลุ่มชินเซ็งงูมิขึ้น โดยคนโดเป็นผู้นำกลุ่มร่วมกับเซริซาวะ คาโมะและนีมิ นิชิกิ ส่วนฮิจิกาตะมีฐานะเป็นหนึ่งในรองหัวหน้ากลุ่ม กลุ่มชินเซ็งงูมิทำงานรับใช้รัฐบาลโชกุนโทกูงาวะในฐานะหน่วยตำรวจพิเศษในนครหลวงเกียวโต ภายใต้การสั่งการของมัตสึไดระ คาตาโมริ ไดเมียวแห่งแคว้นไอซุ ทำหน้าที่ต่อต้านกลุ่มนักปฏิรูปต่าง ๆ

อย่างไรก็ตาม เซริซาวะและนีมิได้เริ่มก่อเรื่องต่อสู้ เมาเหล้าอาละวาด และข่มขู่กรรโชกต่าง ๆ ในนครเกียวโต ซึ่งเป็นจุดเริ่มต้นที่ทำให้กลุ่มชินเซ็งงูมิเสื่อมเสียชื่อเสียง จนกระทั่งมีคนตั้งฉายาในทางลบให้กับกลุ่มว่า "ฝูงหมาป่าแห่งมิบุ" (ญี่ปุ่น: 壬生狼 โรมาจิ: miburō ทับศัพท์: มิบูโร) ฮิจิกะตะพบหลักฐานการก่อเรื่องของนีมิมากพอและได้สั่งให้นีมิคว้านท้องตนเอง หลังจากนั้นไม่นานเซริซาวะและสมาชิกที่อยู่ฝ่ายเขาได้ถูกลอบสังหาร คนโดได้ขึ้นเป็นหัวหน้ากลุ่มชินเซ็งงูมิแต่เพียงผู้เดียว โดยมีฮิจิกาตะและยามานามิ เคซูเกะเป็นรองหัวหน้ากลุ่ม

กลุ่มชินเซ็งงูมิมีสมาชิกเพิ่มขึ้นเป็น 140 คน ซึ่งนอกจากจะเป็นซามูไรแล้วยังมีพ่อค้าและชาวนาจำนวนมากเข้าร่วมเป็นสมาชิกกลุ่มด้วย เพราะเกรงว่าวิถีชีวิตของตนจะถูกคุกคามหากเกิดการล่มสลายของรัฐบาลโชกุนขึ้น กลุ่มชินเซ็งงูมิได้ออกกฎต่าง ๆ ในช่วงที่สถานการณ์ของเกียวโตอยู่ในภาวะตึงเครียด และฮิจิกาตะก็เป็นที่รู้จักจากการบังคับใช้กฎดังกล่าวอย่างเข้มงวด จนกลายเป็นที่มาแห่งสมญานาม "รองหัวหน้าปิศาจ" (ญี่ปุ่น: 鬼の副長 โรมาจิ: oni no fukuchō ทับศัพท์: โอนิ โนะ ฟูกูโจ) แม้ในกลุ่มชินเซ็งงูมิเองก็มีการใช้กฎควบคุมวินัยของกลุ่มอันมีชื่อว่า "เคียวกูจูฮัตโตะ" (ญี่ปุ่น: 局中法度 ทับศัพท์: Kyokuchū Hatto) โดยมีฮิจิกาตะเป็นผู้ควบคุมอย่างเคร่งครัด คนที่ละทิ้งกลุ่มหรือหักหลังกลุ่มจะต้องรับโทษคว้านท้องตัวเองเท่านั้น กฎดังกล่าวได้ถูกนำมาใช้กับยามานามิ เคซูเกะซึ่งเป็นเพื่อนเก่าคนหนึ่งของฮิจิกาตะเนื่องจากเขาได้พยายามออกจากกลุ่มชินเซ็งงูมิในปี ค.ศ. 1865

ดาบคู่ใจของฮิจิกาตะคือ "อิซูมิ โนะ คามิ คาเนซาดะ" (和泉守兼定) เป็นดาบที่ตีขึ้นในยุคเอโดะโดยสุดยอดช่างตีดาบผู้มีชื่อเสียงในยุคนั้น กล่าวกันว่าฮิจิกาตะยังเป็นผู้พัฒนาวิชาดาบสำหรับใช้เป็นแนวทางมาตรฐานการต่อสู้ของกลุ่มชินเซ็งงุมิอันมีชื่อว่า "ชินเซ็งงูมิเก็นจุตสึ" อีกด้วย

ฮิจิกาตะได้เลื่อนเป็นซามูไรระดับฮาตาโมโตะในปี ค.ศ. 1867 พร้อมกันกับสมาชิกหน่วยชินเซ็งงุมิทั้งหมด[1] และได้ยศเป็นขุนนางชั้น "โยริไอกากุ" (寄合格) ในช่วงต้น ค.ศ. 1868[2]